Mengikut Artikel 9 Perjanjian Atlantik Utara dan panduan yang diberikan oleh Kumpulan Kerja ke atas Pertubuhan Perjanjian Atlantik Utara sewaktu sesi pertama pertemuan Majlis di Washington pada tahun 1949, Jawatankuasa Pertahanan dengan cepat menubuhkan Jawatankuasa Ketenteraan.[2] Semasa beberapa sesi berlangsung dalam mesyuarat tertutup di Washington, Jawatankuasa Tentera memberi panduan dasar mengenai perkara ketenteraan kepada Kumpulan Tetap, dan nasihat mengenai permasalahan militari kepada Jawatankuasa Pertahanan dan badan yang lain, dan ia mencadangkan langkah-langkah militari untuk menyepadukan pertahanan rantau Atlantik Utara kepada Jawatankuasa Pertahanan. Jawatankuasa Ketenteraan berada terus dibawah Jawatankuasa Pertahanan, dan setiap negara anggota diwakili oleh ketua turus atau timbalannya. Iceland, yang tidak mempunyai angkatan tentera, diwakili oleh orang awam. Setiap negara anggota bergilir-gilir memegang jawatan Pengerusi Jawatankuasa Tentera selama setahun (C1 D-1/2,[3] DC 1/2[4]).

Dua kumpulan lain yang juga bertempat di Washington berada terus dibawah Jawatankuasa Tentera:

• Kumpulan Tetap, iaitu badan eksekutif, ditubuhkan pada permulaan, bertanggungjawab bagi urusan harian Jawatankuasa Tentera;
• Jawatankuasa Perwakilan Tentera (MRC), diwujudkan pada akhir tahun 1950, untuk memastikan komunikasi maklumat dan sudut pandangan antara Kumpulan Tetap dan anggota negara Perikatan tidak mewakilinya.